2024 年的最後一天，雷軍很忙。

他不僅出現在小米汽車工廠跨年直播中，為小米的 2024 年作了最終的總結與展望，吸引超 3700 萬人次觀看，還神秘連線嗶哩嗶哩跨年晚會，介紹了自己的 2025 個人願望。

在小米的 2024 年總結中，雷軍用 12 張照片回顧了 2024 年的一些難忘瞬間，包括小米汽車首場發佈會、給小米 su7 車主開車門、小米 15 發佈會等。可以說，手機、汽車、AI 無疑是小米 2024 年最為重要的三個關鍵詞。

雷軍表示，隨著小米汽車業務步入正軌，他開始將注意力轉向 AI 領域，這不僅是個人興趣所在，也是小米生態系統的一次戰略延展。

AI 已成為眾多企業競相角逐的新高地。作為一家以創新為驅動的科技巨頭，小米在 AI 領域的佈局並非一蹴而就，而是經歷了從萌芽到深耕的漫長歷程。

早在 2016 年，小米便組建了技術團隊，開啟了對 AI 這一前沿領域的探索征程。從最初簡單的語音指令執行，到如今能精準理解使用者複雜意圖、提供個性化服務，AI 助手小愛助手成為小米 AI 技術落地的典型範例，也見證著小米 AI 從無到有再到精的過程。

2024 年，小米 AI 發展又迎來關鍵轉折點，AI 成為貫穿手機、汽車、家居生態的紐帶。從人才投入、模型技術再到產品融合，小米的 AI 三步走戰略還將繼續成為 2025 的主基調。

小米 AI 實力的背後：研發與人才

小米雖然早早就有 AI 相關研究，但真正能夠被稱為小米 AI 大模型起點的還是 2023 年。這一年，小米 AI 實驗室大模型團隊正式組建。

團隊成員來自五湖四海且背景多元，其中既有在 AI 深耕多年的行業專家，也有在機器學習、自然語言處理方向頗有建樹的人才。負責人欒劍曾任職東芝（中國）研究院、微軟（中國）工程院，技術積累深厚。

公開資料顯示，自 2016 年組建 AI 團隊以來，小米經過 7 年 6 次擴展，相關領域人員規模已達 3000 多人，其 AI 技術能力已覆蓋視覺、聲學、語音、NLP、知識圖譜、機器學習、大模型、多模態方向，並逐步接入手機、汽車、AIoT、機器人等業務類股。

2024 年底，又有消息傳出雷軍正以千萬年薪招攬人才，羅福莉就是在這一背景下加入小米並擔任小米 AI 實驗室的大模型團隊負責人的。

羅福莉本科就讀於北京師範大學電腦專業，大三時進入北大語言計算實驗室實習，選擇 NLP 作為科研方向，之後又保研進入北京大學計算語言學研究所深造。2019 年，羅福莉在人工智慧領域頂級國際會議 ACL 上發表 8 篇論文，其中 2 篇為第一作者，碩士兩年間在國際頂會上發表超過 20 篇論文。

畢業後，羅福莉進入阿里達摩院機器智能實驗室，負責 AliceMind 開放原始碼專案，主導開發了多語言預訓練模型 VECO，該模型在 xtreme 排行榜上曾排名第一。2022 年，羅福莉選擇加入幻方量化從事深度學習相關策略建模和演算法研究，之後又擔任 DeepSeek 深度學習研究員，參與研發 MoE 大模型 DeepSeek-V2。

而在羅福莉之前，小米在今年還對公司 AI 組織架構進行了一輪調整，公司基礎技術平台部成立 AI 平台部，本質上屬於小米技術委員會，由張鐸擔任 AI 平台部負責人，向基礎技術平台部總經理馮宏華匯報。

說到張鐸，這位技術大牛曾在 2016 年-2021 年間任職小米，被雷軍稱作“小米的大神”。

據悉，張鐸畢業於清華大學電腦科學與技術系，此前在小米任職的 5 年間，曾負責小米開源工作的規劃與推進，參與了小米多個核心項目的開發。期間，張鐸在 2015 年成為 Apache HBase 項目的 Committer，2016 年晉陞為該項目的 PMC 成員，也是國內第一位 HBase 的 PMC 成員，2019 年成為 HBase 項目主席。

2021 年從小米離職後，張鐸選擇加入神策資料，擔任基礎研發部負責人和首席架構師，直到 2024 年 9 月，張鐸在朋友圈發文曬出小米新員工工牌，宣佈回歸小米。

羅福莉、張鐸的加入被外界視作小米全面發力大模型的訊號之一，雷軍一度覺得小米在大模型領域發力太晚。因此，除了人才招募以外，小米為了追趕第一梯隊，近些年在研發投入方面也是下足了血本。

2023 年第一季度，小米研發支出就達到 41 億元，同比增長 17.7%，全年總研發投入超 200 億元；2024 年，小米研發投入再升級，預計達 240 億元。在 2022 - 2026 五年內，小米研發投入總額預計超千億，超 70%流向 AI、OS、晶片領域。

成立至今，小米 AI 團隊成果頗豐。

2024 年 5 月，小米大語言模型 MiLM 正式通過大模型備案，未來將逐步應用於小米手機等產品中。8 月，小米發佈了大規模預訓練語言模型 MiLM-6B，參數規模達到 64 億。

在 2024 年 8 月的 C-Eval、CMMLU 大模型評測榜單中，MiLM 模型總榜排名第 10，在同參數等級的模型中排名第 1。在 STEM 全部 20 個科目中，MiLM 模型在物理、化學、生物等多個項目獲得了較高的精準率。

11 月，小米又推出第二代自研大語言模型 MiLM2，在指令跟隨、閒聊、翻譯等關鍵能力上相比首代模型平均提升超過 45%，支援最長 200k 文字窗口。

MiLM2 涵蓋 0.3B 至 30B 多個量級，以適應不同的業務場景和資源需求。其中 0.3B 到 6B 的模型可完成具體、低成本任務；6B 至 13B 的模型支援多工微調；30B 模型專為雲端設計，具備強大的 zero-shot 學習和複雜任務處理能力。

此外在研究領域，2024 年，小米 AI 實驗室大模型團隊有 5 篇論文被 ACL 2024 錄用，2 篇被 EMNLP 2024 錄用。其中 Mobile-Bench 評估基準用於評估 LLM 手機智能體的能力，DetermLR 思維框架可增強 LLM 的邏輯推理能力，ToolPlanner 兩階段強化學習框架，可提升模型的任務完成和指令遵循能力，MobileVLM 則增強了大模型對手機 UI 內和 UI 之間的理解。

雷軍曾對外多次公開表態稱，小米在 AI 領域耕耘多年，面對大模型浪潮，必將全力以赴。而從 AI 大模型研發上看，模型能力都是建立在算力基礎之上的，可以說算力才是 AI 大模型研發的關鍵基石。

從資料上看，AI 大模型動輒數十億、上百億參數，例如 GPT-3，就需要海量訓練資料計算。

這時，單張 GPU 顯然力不從心，叢集平行計算才是大模型訓練的出路。據估算，訓練 GPT-3 最大的 1750 億參數模型大約需要 3.14×10²³ 次浮點運算，若以輝達 A100 GPU 為例，其具有每秒 19.5 兆次（19.5TFlops）的浮點運算能力，在 10 天內完成訓練大約需要 10830 個輝達 A100 GPU。

可見，通過將複雜計算任務拆解，分配到數千張 GPU 同時處理，能大幅縮短訓練周期。以圖像識別模型訓練為例，傳統單卡模型訓練需要數月時間，而這一數字在萬卡叢集加持下，可以直接縮減至幾周甚至幾天完成。

也正因此，頭部的大模型公司基本都在投資基礎算力。

2024 年年中，Meta 透露訓練 Llama 4 模型預計將使用 24 萬塊 GPU，是 Llama 3 所使用 GPU 數量的十倍，並計畫在年底之前部署 35 萬塊輝達 H100 GPU。

10 月，馬斯克也宣佈 xAI 將建立全球最大的 AI 超算，配備 10 萬張輝達 H100 卡，未來還將擴展至 20 萬張。

視線放到國內，上周，有傳言稱小米正在著手搭建自己的 GPU 萬卡叢集，將對 AI 大模型大力投入，其中有 6500 張 GPU 資源是小米大模型團隊成立之時就已投入使用的。

知情人士稱，該計畫已施行數月之久，雷軍曾表示，“在 AI 硬體這件事情上，最核心的是手機而不是眼鏡，小米在這個領域不 all in 是不可能的。”而這也側面說明，小米的 AI 研發路徑基本還是服務於公司旗下產品的。

再回看雷軍的跨年直播可以發現，AI 在小米的戰略規劃中屬於是手機、汽車等產品的“第二發展曲線”，是下一個賦能小米全生態產品爆發的關鍵。

回顧整個 2024，AI 幾乎是所有手機廠商發力的重點，小米也是如此。對於小米來說，AI 的儼然已經成為貫穿手機、汽車、家居生態的 “智能紐帶”，可以為使用者編織出緊密便捷的連續生活場景。

在手機生態，小米做到了作業系統和應用功能的兩手抓。小米澎湃 OS 2 發佈時就搭載了前瞻性的端邊雲 AI 子系統，HyperAI 將端雲大模型矩陣、多裝置端側感知、跨端執行能力全面整合，擁有 AI 寫作、AI 識音、AI 字幕、AI 妙畫等功能。

此外，HyperAI 還能將敏感資料在硬體端側進行加密保存，使用者可隨時管理和清空儲存在超級小愛中的記憶資料，借助 AI 技術加強了安全和隱私保護。

在應用層面，小米推出全生態 AI 智能助手超級小愛，利用多模態能力，簡化使用者面對海量裝置時複雜的操作，打通感知 - 理解 - 執行的全鏈路操作，通過大模型的支援進一步最佳化小愛同學的語音識別技術以及智能裝置的互動體驗。

在影像系統中，小米 15 系列手機將 AI 融入互動、影像、性能最佳化各層面。AI 場景智能識別拓展至超 500 種，拍攝城市夜景，AI 精準調優曝光、降噪，暗處細節清晰，霓虹燈光色彩還原逼真。

在汽車生態，小米將自研底層演算法與大模型融合。如採用變焦 BEV 技術，能根據車輛行駛場景切換識別模式；超解析度佔用網路技術，可提高對障礙物的識別精確度，支援雨雪天氣的智能降噪。

道路大模型方面，小米自研無圖方案道路大模型，可即時生成道路拓撲和高精度地圖，實現路口識別、障礙物自動繞行等功能，其效果媲美高精地圖。端到端的感知決策大模型將感知決策演算法二合一，大模型即時觀察、動態調整，甚至可以將 200cm 的車停進 210cm 車位。

智能座艙體驗方面，HyperMind 成為智能座艙的“大腦”，通過深度學習對使用者操作習慣進行學習，實現 主動智能及跨端智聯。

車載小愛則提供了語音互動功能，在小米 SU7 上市發佈會上，雷軍介紹了小米 SU7 車型搭載的 “全新小愛大模型”。車載小愛支援連續對話，單次喚醒後可連續發出語音指令控車，無需反覆喚醒，同時還具備協同喚醒功能，在車內時只會喚醒車內的小愛同學，避免與其他裝置產生干擾。

小愛同學還可以覆蓋全部核心控車功能，能語音控制車窗、HUD、後視鏡等，即使在離線或無訊號的地區，小愛同學也能正常使用，通過語音實現對中控屏顯示內容的操控。

在智能家居生態，小米的 AI 佈局同樣基於小愛同學及多種 AI 演算法。通過對大模型的演算法進行深度定製與最佳化，小愛同學更適應智能家居場景，能更準確地理解使用者意圖，更流暢地進行對話交流。未來，小米在家居、智能電器等多個領域還會不斷拓展，並行布幾款令人期待的智能家居新產品。

當然，得益於小米澎湃 OS 自研的跨端互聯框架 Xiaomi HyperConnect，多種小米裝置也能實現跨端協同，人、車、手機、可穿戴裝置、家居都能實現深度互聯和協同，讓使用者在不同裝置上獲得連貫一致的 AI 體驗。

AI 的發展的是如此之快，2023 年才成立的 AI 實驗室大模型團隊，就已經開始在小米全生態鏈產生影響。回顧小米 AI 的發展歷程，從 2016 年團隊初建，到 2024 年的 “人車家全生態” 出現，越來越多超乎想像的智能場景開始走進千家萬戶。

在跨年直播中，雷軍提到了自己的三個 2025 年新年願望，一是 2025 年交 30 萬輛車；二是有時間去更多地方看看美景、嘗嘗美食，順便測測汽車；三是明年要好好健身，打算在健身房打卡 100 次。

這三個願望或許也在一定程度上反映了小米的 AI 願景，在汽車中欣賞詩與遠方時，我們有 AI 助手陪伴在側，在健身房健身時，我們也有手機 AI 和手錶 AI 提醒著鍛鍊注意事項，並監控健康指標。

AI 通過與產品的融合，已經融入生活，我們也期待在 2024 年交出優秀答卷後，小米依舊能在2025年延續之前的人才投入-模型技術-產品融合三步戰略，在 AI 融合的道路上越走越遠，直至讓 AI 完全成為生活的一種必不可少的體驗。 (前方智能)

近日，一則關於小米正在著手搭建GPU萬卡叢集的消息迅速傳開。

傳言稱，小米在AI大模型上的投入將大幅增加，其大模型團隊在成立之初就已配備了6500張GPU資源。

這一消息也讓業界開始重新審視小米在AI賽道上的佈局和野心。

小米此舉到底意味著什麼？它又能否在激烈的AI競爭中找到屬於自己的位置？

提起小米，許多人首先想到的是性價比極高的智慧型手機和豐富的智能硬體生態。

然而，近年來，隨著全球AI技術的飛速發展，從智能語音助手“小愛同學”到物聯網生態中的智能控制，小米在AI領域已經有了一定積累。

但對比阿里、百度、華為等行業巨頭，小米的AI佈局似乎更偏嚮應用端，卻鮮少涉及基礎技術研發。此次關於GPU萬卡叢集的傳聞，似乎標誌著小米正嘗試從“應用驅動”向“技術驅動”轉型。

那麼GPU萬卡叢集是什麼？為何如此重要？

對於AI行業來說，GPU萬卡叢集堪稱“煉金術士”的工具。

AI大模型的訓練需要海量的資料和計算資源，而GPU的高平行計算能力正是這一領域的核心。萬卡叢集，顧名思義，即搭建由數萬張GPU卡組成的計算叢集，它可以支撐大規模的模型訓練與推理任務。

當前，全球最頂尖的AI公司如OpenAI、Google DeepMind，以及國內的百度、騰訊等，都在建設自己的超算中心。

以OpenAI為例，其訓練ChatGPT所使用的硬體資源便堪稱天文數字。據業內估算，一次完整的大模型訓練可能需要花費數百萬美元甚至更多。

小米此時涉足萬卡叢集，說明其在AI大模型研發上早已有了明確方向。從GPU的數量來看，小米目前的規模在國內AI初創團隊中已經名列前茅。

大膽推測一些小米入局大模型的核心邏輯

小米的生態鏈涵蓋智慧型手機、智能家居、可穿戴裝置等多種硬體產品。AI大模型可以為其生態鏈提供更強大的智能服務能力，例如更加自然的語音互動、更精準的使用者行為預測以及跨裝置的無縫協同。通過AI技術的加持，小米的硬體產品將更具競爭力。

目前，小米的硬體業務已趨於穩定，依靠性價比取勝的商業模式在國際市場上也面臨一定壓力。AI技術的研發投入，不僅可以幫助小米在技術層面追趕甚至超越競爭對手，還能為其業務模式注入更多可能性，例如SaaS服務、AI雲平台等。

大模型的賽道尚未完全成熟，但已經顯現出巨大的商業潛力。從微軟與OpenAI的深度合作，到國內科技巨頭紛紛推出自己的通用大模型，AI技術的商業化處理程序正在提速。小米此時入局，雖不是最早的一批玩家，但市場尚未固化，仍有機會通過差異化競爭獲得突破。

我們回顧小米的發展史，從“網際網路手機”到智能家居生態鏈，再到物聯網平台，小米多次在競爭激烈的市場中找到自己的生存之道。

如今，AI大模型的研發或許是其又一次關鍵轉型。

與其他科技巨頭相比，小米的優勢在於其使用者導向的產品理念和快速迭代的能力。如果小米能夠將技術研發與使用者需求緊密結合，不僅能提高硬體產品的附加值，還完全可能開闢全新的業務模式。 (AI科技明星)

最近兩年，大語言模型發展迅猛，對算力需求激增。然而，輝達A100等高端GPU一卡難求，是挑戰還是機遇？眾多中國算力廠商開始尋找新的替代方案。

作為中國僅有的可以在功能上對標輝達的GPU企業，摩爾執行緒試圖用“叢集化”的解決方案，助力國產GPU突破算力瓶頸。

7月3日，在2024世界人工智慧大會召開前夕，摩爾執行緒宣佈其誇娥（KUAE）智算叢集解決方案實現重大升級，從當前的千卡等級大幅擴展至萬卡規模，以此來完成對大模型的托舉，為兆參數等級的大模型訓練提供持續高效、穩定、且廣泛適用的通用算力支援。

AI大模型時代，巨頭們都捲入一場算力軍備賽。

2023年5月10日，Google推出的超級電腦A3 Virtual Machines擁有26,000塊Nvidia H100 GPU，同時基於自研晶片搭建TPUv5p 8960卡叢集；

2024年3月，Meta分享了其兩個新的AI訓練叢集，新發佈的兩個叢集均包含24,576個Nvidia Tensor Core H100 GPU，比上一代的16,000塊增長了不少；

而OpenAI開發的ChatGPT-4擁有16個專家模型共1.8兆參數，一次訓練需要在大約25,000個A100上訓練90到100天。

事實證明，AI大模型的主戰場，萬卡已是標配。

那麼，AI大模型時代，究竟需要怎樣的算力？從大模型的發展趨勢，我們可以窺得一二。

在2020年推出的Scaling Law（尺度規律）持續作用之下，推動了大模型的“暴力美學”趨勢。以OpenAI的ChatGPT的發展為例，大模型訓練的方向是參數規模從百億增長到兆，至少增長了100多倍；所需處理的資料量從TB等級增長到10+TB，至少增長了10多倍；計算量至少增加了1000多倍。這樣的大模型必須要有規模足夠大的算力，才能快速跟上技術演進。

不只是規模夠大，AI算力還必須具有通用性。這是因為，目前大模型背後所基於的是Transformer架構，它雖然是當下的主流架構，但並不能大一統，它自身仍在加速融合演進，從稠密到MoE，從單模態到多模態，從擴散到自回歸。同時，除了Transformer架構之外，也不斷有其他創新架構出現，如Mamba、RWKV和RetNet等。因而，Transformer架構並不等於最終答案。

此外，AI、3D、HPC跨技術與跨領域融合不斷加速，比如利用AI+3D實現空間智能、AI+模擬計算實現物理智能、AI+科學計算實現4Science等。計算範式的演進，以及更多場景對多元算力需求的變化，都催生了對一個通用加速計算平台的渴望。

隨著模型參數量從千億邁向兆，大模型亟需一個超級訓練工廠，即一個“大且通用”的加速計算平台，來極大地縮短訓練時間，以實現模型能力的快速迭代。“只有在規模足夠大、計算更通用且生態相容好的情況下，才能真正實現好用。”摩爾執行緒創始人兼CEO張建中指出。

超萬卡叢集已成為大模型預訓練的標配，對於基礎設施廠商而言，有沒有萬卡叢集將是贏取AI主戰場勝負的關鍵。

然而，建設萬卡叢集並非易事。

萬卡叢集並不是一萬張GPU卡的簡單堆疊，而是一個超級複雜的系統工程。

首先，它涉及到超大規模組網互聯問題，以及如何提高叢集有效計算效率，大量實踐表明，叢集規模的線性提升無法直接帶來叢集有效算力的線性提升。

此外，訓練高穩定與高可用、故障快速定位與可診斷工具等也很關鍵，超萬卡叢集是由數千台GPU伺服器、數千台交換機、數萬根光纖/數萬顆光模組構成，訓練任務涉及上千萬器件的共同作業，任何一個部件的故障，可能都會導致訓練中斷。

再者，大模型的迭代和創新層出不窮，各種新類型的模型及模型架構的創新，要求萬卡叢集具備生態Day0級的快速遷移能力，以適應不斷變化的技術需求。同時，我們也不能侷限於當下的大模型計算加速場景，還需要考慮未來通用計算的需求。

建設萬卡叢集的道路難如登山，挑戰巨大，但這卻是一條難而正確的道路。

經過近四年的積累，摩爾執行緒在千卡叢集已獲得成功驗證的基礎上，重磅發佈了誇娥（KUAE）萬卡智算叢集方案，可以滿足大模型時代對於算力“規模夠大+計算通用+生態相容”的核心需求，實現國產叢集計算能力再升級。

摩爾執行緒誇娥萬卡叢集以全功能GPU為底座，軟硬一體化、完整的系統級算力解決方案，包括以誇娥計算叢集為核心的基礎設施、誇娥叢集管理平台（KUAE Platform）以及誇娥大模型服務平台（KUAE ModelStudio），旨在以一體化交付的方式解決大規模GPU算力的建設和營運管理問題。該方案可實現開箱即用，大大降低傳統算力建設、應用開發和維運營運平台搭建的時間成本，實現快速投放市場開展商業化營運。

誇娥萬卡智算方案具備五大特點：

單一叢集規模突破萬卡，總算力超萬P；

叢集有效計算效率，目標最高可超過60%；

穩定性卓越，周均訓練有效率最高可達99%以上，平均無故障運行15天以上，最長穩定訓練30天以上；

具備強大的計算通用性，專為通用計算而設計，可以加速一切大模型；

擁有良好的CUDA相容能力，生態適配Instant On，加速新模型Day0級遷移。

“我們希望，我們的產品可以為客戶提供一個更好的、可選擇的國產化工具，在國外產品無法使用的時候，可以很容易在國產平台上快速使用起來。”張建中表示，“對於目前國內的大模型使用者來說，我們的最大優勢在於生態相容性極佳。開發者移植到我們的誇娥叢集上，幾乎是不需要修改程式碼，遷移成本接近0，可以在數小時之內就完成遷移工作。”

要讓這個大模型訓練工廠真正運轉起來，還需要一眾朋友圈的支援：

智譜 AI、智源研究院、北大兔展、滴普科技、師者AI、羽人科技、樂創能源、瑞萊智慧、實在智能、積沙成塔（Reportify）、憨猴集團、億景智聯等國內大模型企業，都成功運行在摩爾執行緒的誇娥叢集上。值得一提的是，摩爾執行緒是第一家接入無問芯穹並進行大模型訓練的國產GPU公司，誇娥也是業內首個成功跑通並完整運行國產大模型的叢集。

萬卡叢集是個超級工程，需要產業界齊心協力參與建設。在發佈會上，摩爾執行緒與青海移動、青海聯通等頭部央企進行了萬卡叢集項目的戰略簽約。這些合作將進一步推動摩爾執行緒萬卡叢集在各地方的應用落地。

憑藉高相容性、高穩定性、高擴展性及高算力利用率等優勢，摩爾執行緒誇娥智算叢集已成功斬獲多家大模型企業的認可，成為國內大模型訓練和應用的重要力量。“幾年前對於客戶來說，國產算力只是備胎，而現在已經成為客戶的首選，因為要保證長期供應、本地服務。”張建中介紹到。

雖然建構萬卡叢集是一項艱巨的任務，但摩爾執行緒展示出了攀登的決心，這是一條難而正確的道路。但這不僅是為瞭解決某一家企業的算力需求，更是為了應對全行業的算力短缺問題。雖難但很有必要！

摩爾執行緒萬卡級誇娥智算中心全端解決方案的發佈，標誌著國產GPU在算力水平上取得了重大突破，將優先解決複雜兆參數大模型訓練的難題。而摩爾執行緒的定位早已經不是一家GPU公司，而是一家專注AI的加速計算平台企業。  (半導體行業觀察)

#GPU 萬卡叢集 你可以在這裡找到鉅亨號中所有使用「GPU 萬卡叢集」為關鍵字所發布的內容